Kartellbehörde warnt Deepseek: Keine Warnung vor „Halluzinationen“

Die Wettbewerbs- und Marktaufsichtsbehörde hat eine Untersuchung wegen unlauterer Geschäftspraktiken gegen die chinesischen Unternehmen Hangzhou DeepSeek Artificial Intelligence und Beijing DeepSeek Artificial Intelligence eingeleitet. Die beiden Unternehmen besitzen und betreiben gemeinsam das DeepSeek-System für künstliche Intelligenz. Dies geht aus dem Wochenbulletin der Behörde hervor.

Auf Grundlage der im Rahmen der Anwendung des Verbraucherschutzgesetzes eingeholten Informationen, so das Kartellamt, habe sich DeepSeek verhalten, indem es nicht ausreichend klar, unmittelbar und verständlich darüber informiert habe, dass Nutzer seiner KI-Modelle unter dem leiden könnten, was im Fachjargon als „Halluzinationen“ bezeichnet wird: Situationen, in denen das KI-Modell als Reaktion auf eine bestimmte Eingabe eines Nutzers eine oder mehrere Ausgaben generiert, die ungenaue, irreführende oder erfundene Informationen enthalten. Insbesondere heißt es im Kartellamtsblatt weiter: „In den Dialogfenstern, die sich während der Nutzung der KI-Modelle von Deepseek öffnen, erscheint kein Haftungsausschluss oder Warnhinweis vor der Möglichkeit von ‚Halluzinationen‘.“